Ono dilahirkan pada 18 Februari 1933, di Tokyo, kepada Isoko Ono (小野 磯 子 Ono Isoko) dan Eisuke Ono (小野 英 輔 Ono Eisuke), seorang pegawai bank dan bekas pemain piano klasik.[2] Bapa Isoko telah menggoncang pada 1915. Dauk sebelah bapa Isoko Zenjiro Yasuda (安 田 善 次郎 Yasuda Zenjirō) adalah sekutu puak Yasuda dan Zaibatsu. Eisuke datang dari barisan panjang pahlawan-ulama samurai.[3] Terjemahan kanji nama pertama Yoko yang bermaksud "anak lautan".[2][4]

Dua minggu sebelum kelahiran Yoko, Eisuke telah dipindahkan ke San Francisco oleh majikannya, Yokohama Specie Bank.[5] Diikuti oleh selebih keluarganya tidak lama selepas itu, dengan Yoko bertemu Eisuke ketika berusia dua tahun.[6] Adiknya Keisuke dilahirkan pada bulan Disember 1936. Yoko telah mendaftar dalam pelajaran piano dari umur 4 tahun.[7] Pada tahun 1937, keluarga tersebut telah dipindahkan semula ke Jepun dan Ono mendaftar di Gakushuin Tokyo (juga dikenali sebagai Sekolah Sebaya), salah satu daripada kebanyakan sekolah eksklusif di Jepun.[5]

Pada tahun 1940, keluarganya berpindah ke New York City. Pada tahun berikutnya, Eisuke telah dipindahkan dari New York City ke Hanoi, dan keluarga kembali ke Jepun. Ono telah mendaftar dalam Keimei Gakuen, sebuah sekolah rendah Kristian eksklusif dikendalikan oleh keluarga Mitsui. Beliau tinggal di Tokyo melalui pengeboman pada 9 Mac, 1945, yang mana beliau telah terlindung dengan ahli-ahli keluarga yang lain di sebuah kebuk khas di daerah Azabu, Tokyo, jauh dari pengeboman berat. Ono kemudian pergi ke resort gunung Karuizawa dengan ahli-ahli keluarganya.[5]

Ono dan keluarganya terpaksa meminta makanan sambil menarik barang-barang mereka dalam kereta sorong. Ia adalah dalam tempoh ini dalam hidupnya, Ono berkata, bahawa beliau membangunkan sikap "agresif" beliau dan pemahaman status "orang luar" apabila anak-anak mengejek beliau dan Keisuke, yang pernah baik-untuk-melakukan. Cerita-cerita lain mempunyai ibunya menjadikan jumlah besar barangan dengan mereka untuk kawasan luar bandar, di mana mereka bertukar tersebut adalah makanan. Dalam satu anekdot, ibunya menukar mesin jahit buatan Jerman untuk 60 kilogram (130 lb) beras untuk memberi makan kepada keluarga.[5] Bapanya kekal di bandar, yang tidak diketahui oleh keluarga, yang percaya dia berada dalam tahanan kem perang di China. Ono memberitahu Amy Goodman dari Democracy Now pada 16 Oktober 2007, bahawa "Beliau berada di Perancis Indochina, iaitu Vietnam sebenarnya .... di Saigon. Beliau berada di kem tahanan."[8]

Pada April 1946, Gakushuin telah dibuka semula dan Ono mendaftar semula. Sekolah ini terletak berhampiran istana kerajaan, tidak rosak oleh perang, dan Ono mendapati dirinya seorang rakan sekelas Putera Akihito, bakal maharaja Jepun.[2][3] Beliau menamatkan pengajian pada tahun 1951 dan telah diterima masuk ke program falsafah Universiti Gakushuin sebagai wanita pertama yang memasuki jabatan. Walau bagaimanapun, dia meninggalkan sekolah selepas dua semester.[5]